ข่านเกิดที่ลาฮอร์ในปากีสถาน โดยเขาเกิดในครอบครัวชนชั้นกลางที่ประกอบอาชีพก่อสร้าง[8] แม่ของเขาเคยเป็นอาจารย์คณิตศาสตร์[3] พ่อของเขา ราฟิก ข่าน เคยเปิดร้านขายของชำและอุปกรณ์วาดภาพ[9] ชาฮีด ข่าน ยังมีน้องชายชื่อว่า Tariq Rafiq Khan ซึ่งเสียชีวิตเมื่ออายุได้ 20 ปีต้น ๆ

ข่านย้ายไปสหรัฐใน ค.ศ. 1967 ด้วยวัย 16 ปี[3] เพื่อศึกษาต่อที่มหาวิทยาลัยอิลลินอยส์แอทเออร์บานา–แชมเปญ[10][11] ในคืนแรกที่สหรัฐ เขาได้เข้าพักที่ห้องพักราคา 2 ดอลลาร์ที่มหาวิทยาลัยวายเอ็มซีเอ[3] และงานแรกของเขาคือการล้างจานด้วยค่าจ้างชั่วโมงละ 1.20 ดอลลาร์[3] ต่อมาเขาได้เข้าร่วมสมาคม Beta Theta Pi ที่โรงเรียน[12] เขาสำเร็จการศึกษาวิทยาศาสตร์บัณฑิตสาขาวิศวอุตสาหกรรมจาก UIUC College of Engineering ใน ค.ศ. 1971 ต่อมาเขาได้รับรางวัลศิษย์เก่าดีเด่นสาขาวิทยาศาสตร์เครื่องกลและวิศวกรรมศาสตร์ใน ค.ศ. 1999[13][14][15]